¿Puedo comprar tu caché KV?
Descubre cómo precomputar el caché KV de documentos reduce costos de inferencia en IA hasta 50x. Una propuesta simple y efectiva para agentes.
#modelos grandes
De 8GB a 70B: Guía de hardware para LLMs locales
¿Quieres ejecutar modelos de lenguaje como 70B en tu PC con solo 8GB de VRAM? Descubre técnicas de cuantización y optimización en esta guía práctica.
Ajuste fino de grandes modelos de series temporales: superando el paisaje no convexo
El nuevo método SFF (Smoothed Full Fine-tuning) suaviza el paisaje de pérdida no convexo para optimizar el ajuste fino de grandes modelos de series temporales. ¡Descubre sus beneficios!
Modelos grandes para series temporales y datos espacio-temporales
Los modelos grandes de IA transforman el análisis de series temporales y datos espacio-temporales. Encuesta completa con perspectivas y recursos.
Fundamentos Reversibles: Escalado de Preservación de Estado para MoE de 120B
Entrena un MoE de 120B en una sola máquina con 8 GPUs usando reversibilidad y escalado preservador de estado. Eficiencia sin precedentes.
Pensamiento Especulativo: grandes modelos mejoran el razonamiento
Mejora la precisión de modelos pequeños hasta un 6.2% usando guía de modelos grandes sin entrenamiento. Descubre Speculative Thinking.
Pensamiento especulativo: guía de modelos grandes para razonamiento en inferencia
El pensamiento especulativo guía modelos pequeños con modelos grandes, mejorando precisión un 6.2% y reduciendo salida un 15.7%.
QUIVER: Vistas Cuánticas para Representaciones en Grandes Modelos ML
QUIVER incorpora vistas cuántico-informadas para mejorar representaciones en grandes modelos de ML, ofreciendo mejoras medibles en QM9 y JetClass.
Adaptadores Kronecker: la importancia del diseño de componentes
Optimiza el ajuste fino de modelos grandes con adaptadores Kronecker. Conoce CDKA, una nueva técnica que mejora la capacidad y eficiencia mediante el diseño estratégico de componentes.
FlexRank: Descomposición Anidada de Bajo Rango para Despliegue Adaptativo
FlexRank extrae submodelos de capacidad variable de modelos sin reentrenar. Optimiza costos y rendimiento para despliegue adaptativo a todo presupuesto.
CRAFT: Replicación eficiente de expertos en Mixture-of-Experts
Descubre CRAFT, un marco que replica expertos con granularidad fina para mejorar el rendimiento de modelos MoE hasta un 20% sin modificar el modelo.
Límites de generalización no vacíos para redes profundas sin modificar
Por primera vez, se demuestran cotas de generalización no triviales para redes profundas sin modificaciones, incluso con 600M parámetros. Análisis basado en la geometría de los datos.
RefLoRA: Adaptación de Bajo Rango Refactorizada para Modelos Grandes
Descubre RefLoRA, una nueva técnica de fine-tuning que acelera la convergencia y mejora el rendimiento de modelos grandes con mínimo costo computacional.
LiMuon: Optimizador Muon Ligero y Rápido para Modelos Grandes
Descubre LiMuon, el optimizador ligero y rápido que reduce memoria y complejidad muestral para entrenar modelos grandes. ¡Mejor rendimiento!
Alcance espectral: el escalado neuronal progresa en la cola espectral
Descubre cómo el alcance espectral mide la capacidad de los modelos grandes para explotar señales débiles en la cola espectral, reduciendo la pérdida mediante el aprendizaje de características.